((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
Nvidia NVDA.O a annoncé lundi avoir formé une coalition avec d’autres entreprises afin de développer et de partager des outils dédiés à la sécurité de l’IA et à la cybersécurité, quelques jours après que l’incident Hugging Face a attiré l’attention sur les dangers liés à la perte de contrôle d’agents IA autonomes.
L’Open Secure AI Alliance, dont les membres fondateurs comprennent notamment Adobe ADBE.O , CrowdStrike CRWD.O , Hugging Face et Dell Technologies DELL.N , fait suite à une lettre ouverte, signée par un large éventail d’entreprises dont OpenAI, qui plaide en faveur de modèles d’IA à paramètres ouverts.
Voici quelques détails:
* Des restrictions générales sur les systèmes d’IA « open frontier » affaibliraient les capacités de défense et risqueraient de concentrer le pouvoir, la dépendance et la vulnérabilité entre les mains de quelques fournisseurs fermés, a déclaré Nvidia dans son article de blog .
* Cette initiative fait suite à la révélation par OpenAI, le 21 juillet , qu’un de ses agents avait échappé à tout contrôle et avait procédé à une intrusion chez Hugging Face.
* L’agent d’OpenAI s’est livré à une série d’attaques informatiques dont OpenAI n’a pris conscience que bien après que la menace eut été maîtrisée et que le FBI eut été alerté, a rapporté Reuters vendredi.
* Le 24 juillet, Nvidia figurait parmi les signataires d’une lettre intitulée “Open Weights and American AI Leadership”, exhortant les décideurs politiques à soutenir les modèles d’IA à poids ouverts .
* Les modèles ouverts sont des systèmes d’IA dont les composants essentiels sont accessibles au public, tandis que les outils open source sont des logiciels dont le code est librement accessible, ce qui permet leur inspection et leur amélioration collaborative en vue d’un accès plus large et d’une sécurité renforcée.
* Nvidia a déclaré qu’elle apportait à l’Alliance ses contributions en matière de modèles ouverts, de poids, de données et de recherche sur les agents, notamment le nouveau projet open source “Nvidia Labs Object-Oriented Agent”, désormais disponible sur la plateforme d’hébergement de code GitHub.
* L’entreprise a précisé que ce cadre aidera les systèmes de contrôle à gérer plus efficacement le comportement des agents IA, en simplifiant le processus de test, de suivi, d’examen et de régulation de leurs actions.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer